Do uy tín từ nghề bảo tiêu, Hoắc Ân Đệ về sau mở võ đường dạy võ cho con em trong làng, truyền dạy Mê Tung quyền. Do lo ngại ông có thể chất kém (Hoắc Nguyên Giáp bị bệnh hen suyễn mãn tính và sốt vàng da) và cho rằng ông không có được thiên chất võ thuật, nên cha Hoắc Nguyên Giáp thường hạn chế ông tập luyện võ thuật. Mặc dù vậy, bản tính đam mê võ thuật, Hoắc vẫn thường xuyên bí mật theo dõi các buổi dạy của cha mình và kiên trì khổ luyện một mình, bất chấp thể tạng bệnh tật đau yếu.

Năm 1890, một võ sĩ từ Hà Nam đến Hoắc gia và tỉ thí với một người anh của Hoắc. Người này dễ dàng đánh bại anh trai Hoắc, và trước sự ngạc nhiên của gia đình, Hoắc xin được ra thi đấu. Mọi người bất ngờ khi thấy Hoắc lại dễ dàng đánh bại võ sĩ Hà Nam. Với chiến thắng này, Hoắc chứng tỏ được với cha là ông hoàn toàn có thiên tư về võ thuật. Cha ông cuối cùng cũng đồng ý cho Hoắc tham gia tập luyện như một môn sinh chân truyền. Danh tiếng của Hoắc ngày càng vang xa khi ông đả bại toàn bộ các võ sư khắp nơi đến tỉ thí khi còn rất trẻ.

Cũng như cha mình, Hoắc cũng bắt đầu tham gia vào nghề bảo tiêu và càng nổi danh hơn khi nhiều lần đánh bại các toán cướp hàng. Hoắc bắt đầu có một nguồn thu nhập khá, đủ để ông chuyển đến sống ở thành phố Thiên Tân năm 1896 và sống ở đó cho đến cuối đời.

Trong những năm cuối thế kỷ 19, ngoài việc Trung Quốc bị các cường quốc qua phân, các võ sĩ phương Tây và Nhật Bản cũng thừa dịp đứng ra thách đấu với các võ sư người Hoa và đa số giành chiến thắng trước những võ sư Trung Quốc. Trong số những kẻ đứng ra khiêu chiến giới võ thuật Trung Hoa có người đã đề tặng bốn chữ "Đông Á bệnh phu" (Người bệnh Đông Á) mang đầy ý nghĩa chế nhạo lẫn khiêu khích các võ sĩ người Hoa khiến họ cảm thấy rất nhục nhã.

Qua việc võ sư Hoắc Nguyên Giáp chiến thắng trong một số trận đấu tiêu biểu với người nước ngoài, võ lâm Trung Hoa dần dần lấy lại danh dự và ông được tôn là người giỏi nhất Thiên Tân. Hoắc nhanh chóng trở thành một huyền thoại trong giới võ thuật Trung Quốc. Nhiều giai thoại được gán cho ông như một biểu hiện của lòng tự hào dân tộc của người Trung Quốc trong thời kỳ Thanh mạt.